解释性是决策系统的压迫问题。已经提出了许多后的HOC方法来解释任何机器学习模型的预测。但是，业务流程和决策系统很少归属于单个独立的模型。这些系统组合了产生关键预测的多个模型，然后应用决策规则以生成最终决定。为了解释此类决定，我们呈现SMACE，半模型 - 不可知论式解释器，一种新的解释方法，该方法将决策规则与现有的机器学习模型进行决策规则，以生成对最终用户身份定制的直观特征排名。我们表明，建立的模型 - 无可止境方法在这一框架中产生了不良的结果。
translated by 谷歌翻译